((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
Anthropic a déclaré lundi que ses expériences suggéraient que les petits modèles d’IA pourraient, d’ici quelques mois, être suffisamment performants pour s’autoreproduire sur des appareils de l'Internet des objets (IoT) disponibles dans le commerce, tels que les fours intelligents et les boîtiers Android TV de marques inconnues.
* Dans le cadre de ses expériences, Anthropic a cherché à déterminer si des modèles d’IA pouvaient identifier des appareils vulnérables, s’y copier et continuer à se propager sans intervention humaine.
* Elle a constaté que des modèles de petite taille, comportant moins de 30 milliards de paramètres, étaient capables d’accomplir les nombreuses étapes nécessaires à leur réplication.
* Cependant, l’entreprise a constaté que ces modèles d’IA avaient également du mal à mener à bien l’intégralité de la séquence, du début à la fin.
* Lors de ses tests simplifiés, dans lesquels certaines mesures de sécurité avaient été supprimées, Anthropic a constaté que le modèle GLM-5.2 et des modèles plus puissants étaient capables d’une réplication de bout en bout.
* Anthropic a averti qu’il serait difficile de neutraliser ces modèles de réplication, car il n’existe pas de point central de désactivation et, contrairement aux logiciels malveillants non basés sur l’IA, ils pourraient également identifier de leur propre chef des appareils inconnus, en ciblant les processeurs des centres de données.
* Dans le cadre de ses recherches, l’entreprise s’est concentrée sur les appareils IoT tels que les téléviseurs Android, les appareils électroménagers intelligents et autres gadgets connectés à Internet, car ceux-ci sont généralement mal sécurisés.
* Le géant de l’IA a également averti que si les petits modèles continuaient à s’améliorer au rythme observé jusqu’à présent, ils seraient capables de se répliquer de manière autonome d’ici la fin de cette année, et que des réplicateurs de petite taille, basés sur le poids, leur emboîteraient le pas peu après.
* Anthropic a également indiqué que ces systèmes d’IA autonomes étaient susceptibles de se répliquer lentement et de s’appuyer sur des ressources informatiques largement disponibles mais relativement peu sécurisées. L’entreprise a ajouté que les systèmes devaient être renforcés afin de compliquer la propagation de ces agents d’IA.
2 commentaires
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer